Crescono le preoccupazioni mentre i video generati dall'intelligenza artificiale diffondono odio e razzismo online: "Nessuna regola di sicurezza"
A prima vista sembra un bizzarro videoclip generato dall'intelligenza artificiale per far ridere la gente.
In esso, un Bigfoot peloso che indossa un cappello da cowboy e un gilet decorato con la bandiera americana è seduto al volante di un pick-up.
"Oggi andiamo alla parata LGBT", dice la creatura scimmiesca ridendo. "Vi piacerà un sacco."
La situazione prende poi una piega violenta e inquietante quando Bigfoot attraversa una folla di persone urlanti, alcune delle quali tengono in mano bandiere arcobaleno.
Il video, pubblicato a giugno sulla pagina TikTok di AmericanBigfoot, ha ottenuto più di 360.000 visualizzazioni e centinaia di commenti, la maggior parte dei quali di applauso.
Negli ultimi mesi, contenuti simili generati dall'intelligenza artificiale hanno invaso le piattaforme dei social media, promuovendo apertamente la violenza e diffondendo odio contro i membri della comunità LGBTQ+, ebraica, musulmana e di altre minoranze.
La storia continua sotto la pubblicità
Sebbene l'origine della maggior parte di questi video non sia chiara, la loro diffusione sui social media sta suscitando indignazione e preoccupazione tra esperti e sostenitori, i quali affermano che le normative canadesi non riescono a tenere il passo con il ritmo dei contenuti di odio generati dall'intelligenza artificiale, né ad affrontare adeguatamente i rischi che questi rappresentano per la sicurezza pubblica.
Il premier del Saskatchewan sta cercando di rintracciare i creatori dei "deepfake" di intelligenza artificiale che lo ritraggono insieme a Carney
Egale Canada, un'organizzazione di difesa dei diritti LGBTQ+, afferma che la comunità è preoccupata per l'aumento di contenuti disinformativi transfobici e omofobi sui social media.
"Questi strumenti di intelligenza artificiale vengono utilizzati come armi per disumanizzare e screditare le persone trans e di genere diverso e le attuali leggi sulla sicurezza digitale non riescono ad affrontare la portata e la velocità di questa nuova minaccia", ha affermato la direttrice esecutiva Helen Kennedy in una nota.
La rapida evoluzione della tecnologia ha fornito ai malintenzionati uno strumento potente per diffondere disinformazione e odio, con le persone transgender prese di mira in modo sproporzionato, ha affermato Kennedy.
La storia continua sotto la pubblicità
La comunità LGBTQ+ non è l'unico bersaglio, ha affermato Evan Balgord, direttore esecutivo del Canadian Anti-Hate Network. Anche contenuti islamofobi, antisemiti e anti-sudasiatici realizzati con strumenti di intelligenza artificiale generativa circolano ampiamente sui social media, ha aggiunto.
"Quando si crea un ambiente in cui si celebra molto la violenza contro questi gruppi, è più probabile che la violenza contro questi gruppi avvenga di persona o per strada", ha avvertito Balgord in un'intervista telefonica.
Uno studio rivela che ChatGPT ha risposto in modo pericoloso più della metà delle volte agli utenti che chiedevano consigli
Le leggi canadesi sulla sicurezza digitale erano già in ritardo e i progressi nell'intelligenza artificiale hanno reso le cose ancora più complicate, ha affermato.
Ricevi una volta al giorno nella tua casella di posta le notizie più importanti del giorno, tra cui notizie politiche, economiche e di attualità.
La storia continua sotto la pubblicità
I progetti di legge volti a contrastare i contenuti online dannosi e a stabilire un quadro normativo per l'intelligenza artificiale sono stati bocciati quando il Parlamento è stato prorogato a gennaio, ha affermato Andrea Slane, professoressa di studi giuridici presso l'Ontario Tech University, che ha condotto ricerche approfondite sulla sicurezza online.
Slane ha affermato che il governo deve riesaminare la legislazione sui danni online e ripresentare il disegno di legge "con urgenza".
"Penso che il Canada si trovi in una situazione in cui ha davvero bisogno di muoversi", ha affermato.
Il Ministro della Giustizia Sean Fraser ha dichiarato a giugno alla Canadian Press che il governo federale avrebbe "rivisto" l'Online Harms Act, ma non ha ancora deciso se riscriverlo o semplicemente reintrodurlo. Tra le altre cose, il disegno di legge mirava a responsabilizzare le piattaforme di social media nella riduzione dell'esposizione a contenuti dannosi.
Un portavoce del neo-istituito Ministero per l'intelligenza artificiale e l'innovazione digitale ha affermato che il governo sta prendendo sul serio la questione dei contenuti d'odio generati dall'intelligenza artificiale, soprattutto quando prendono di mira gruppi minoritari vulnerabili.
Allenatore di football femminile dell'Alberta accusato di aver realizzato materiale pedopornografico con l'intelligenza artificiale
Sofia Ouslis ha affermato che le leggi esistenti forniscono "importanti protezioni", ma ha ammesso che non miravano ad affrontare la minaccia dell'intelligenza artificiale generativa quando sono state progettate.
La storia continua sotto la pubblicità
"C'è un reale bisogno di capire come gli strumenti di intelligenza artificiale vengono utilizzati e abusati, e come possiamo rafforzare le misure di protezione", ha affermato in una nota. "Questo lavoro è in corso".
Il lavoro prevede la revisione dei quadri normativi esistenti, il monitoraggio delle decisioni dei tribunali "e l'ascolto attento di esperti legali e tecnologici", ha affermato Ouslis. Ha aggiunto che il governo del Primo Ministro Mark Carney si è anche impegnato a rendere reato la distribuzione di deepfake a sfondo sessuale non consensuale.
"In questo settore in rapida evoluzione, crediamo che sia meglio avere una regolamentazione corretta piuttosto che procedere troppo in fretta e sbagliare", ha affermato, sottolineando che Ottawa sta cercando di imparare dall'Unione Europea e dal Regno Unito.
Slane ha affermato che l'Unione Europea è stata all'avanguardia nel regolamentare l'intelligenza artificiale e nel garantire la sicurezza digitale, ma nonostante sia "in prima linea", si ha la sensazione che ci sia ancora molto da fare.
Gli esperti affermano che regolamentare i contenuti distribuiti dai giganti dei social media è particolarmente difficile perché queste aziende non sono canadesi.
"Bagno di sangue dei colletti bianchi": l'intelligenza artificiale distruggerà il lavoro d'ufficio di livello base?
Un altro fattore complicato è l'attuale clima politico a sud del confine, dove le aziende tecnologiche statunitensi stanno assistendo a una riduzione delle normative e delle restrizioni, il che le rende "più potenti e le fa sentire meno responsabili", ha affermato Slane.
La storia continua sotto la pubblicità
Sebbene l'intelligenza artificiale generativa esista già da qualche anno, negli ultimi mesi si è verificata una "svolta" che ha reso più semplice la produzione di video di buona qualità utilizzando strumenti per lo più disponibili gratuitamente o a un prezzo molto basso, ha affermato Peter Lewis, titolare della cattedra di ricerca canadese sull'intelligenza artificiale affidabile.
"Devo dire che è davvero accessibile a chiunque abbia un minimo di conoscenze tecniche e abbia accesso agli strumenti giusti in questo momento", ha affermato.
Lewis, che è anche professore associato presso l'Ontario Tech University, ha affermato che i grandi modelli linguistici come ChatGPT hanno implementato misure di sicurezza nel tentativo di filtrare i contenuti dannosi o illegali.
Ma nel settore video c'è ancora molto da fare per creare tali barriere, ha affermato.
"Tu ed io potremmo guardare il video e probabilmente rimanere inorriditi", ha detto, aggiungendo "non è detto che il sistema di intelligenza artificiale abbia la capacità di riflettere su ciò che ha creato".
Il video virale di un parapendio cinese probabilmente manipolato con riprese di intelligenza artificiale
Lewis ha affermato che, pur non essendo un esperto legale, ritiene che le leggi esistenti possano essere utilizzate per combattere la glorificazione online dell'odio e della violenza nei video di AmericanBigfoot.
La storia continua sotto la pubblicità
Ma ha aggiunto che il rapido sviluppo dell'intelligenza artificiale generativa e la diffusa disponibilità di nuovi strumenti "richiedono nuove soluzioni tecnologiche" e la collaborazione tra governi, consumatori, sostenitori, piattaforme social e sviluppatori di app di intelligenza artificiale per affrontare il problema.
"Se queste cose vengono caricate... abbiamo bisogno di meccanismi di segnalazione reattivi davvero solidi per poterle rimuovere da Internet il più rapidamente possibile", ha affermato.
Lewis ha affermato che l'utilizzo di strumenti di intelligenza artificiale per rilevare e segnalare tali video è utile, ma non risolverà il problema.
Il premier del Saskatchewan sta cercando di rintracciare i creatori dei "deepfake" di intelligenza artificiale che lo ritraggono insieme a Carney
Uno studio rivela che ChatGPT ha risposto in modo pericoloso più della metà delle volte agli utenti che chiedevano consigli
